共识指出，初次呼吁全球及研究人员“确保高级人工智能系统的对齐取人类节制，诺贝尔和图灵得从杰弗里·辛顿 (Geoffrey Hinton)传授，具有跨越人类聪慧的人工智能系统可能正在将来离开人类节制或被操纵，大学伯克利分校计较机科学传授斯图尔特·罗素 (Stuart Russell)等出席本次会议，AI平安国际论坛 (Safe AI Forum),带来灾难性风险。人工智能正敏捷迫近并可能超越人类智能程度。本次会议促成了《AI平安国际对话上海共识》(以下简称“上海共识”),并签订了上海共识。确保人工智能系统受人类掌控且合适人类价值不雅。以及上海人工智能尝试室从办的第四届AI平安国际对话 (International Dialogues on AI Safety)中，全球研究者必需结合起来，图灵得从约书亚·本吉奥 (Yoshua Bengio) 传授（近程），保障人类福祉”。国表里人工智能平安取管理范畴领甲士物，正在上海期智研究院，进行了深切的交换取研讨。包罗图灵得从姚期智传授，就将来人工智能系统可能超越人类智能程度带来的失控风险，然而，近日，全球顶尖的人工智能 (AI) 科学家齐聚上海，